馬斯克押注每瓦算力增值，SpaceX 採短期現貨出租因應長期算力短缺

☘️ Article

孟恭觀點

• elon @spcx q3 qa
• " 對外出租與內部使用的算力比例，每個月都可能改變。粗略來說，我們的目標是大約各占一半，也就是 50／50：一半算力供內部使用，另一半出租給其他公司。不過，這個比例也可能變成六四比，哪一邊占六成都有可能，會動態調整。
• 很顯然，我們的做法是，基本上按照現貨市場價格出租算力，而不是簽訂長期合約。我們認為，每瓦電力所對應的算力價值，會隨著時間增加，而不是下降。
• 我想，原因其實應該很明顯：隨著 AI 軟體持續改善、模型越來越強，每消耗一瓦電力，就能產出更多有用的智慧。而算力的價值，就與每瓦電力能產出的有效智慧成正比。這也是為什麼，你會看到連 H100 這種舊款硬體，現在的租金都比剛推出時還高。
• 而且，我認為這個趨勢很可能持續下去。
• 我認為，我們將面臨用於超級智慧的算力短缺，而且這種短缺會持續很長一段時間。所以，我認為明智的做法是簽短期合約，本質上就是押注：每瓦電力所能產出的有效智慧，會快速增加。這件事顯然已經發生了，至少到目前為止，情況就是如此。
• 另外，你也可以看看我們的短期合約續約情況：續約時，每瓦電力對應的租金是變高，還是變低？我們看到的是變高，而不是變低。
• 坦白說，每一家超大規模雲端業者，還有幾十家規模較小的公司，都在鍥而不捨地追著我們，希望租到更多算力。如果我們每一家都答應，光是這些需求，就足以把我們現有的算力出租好幾遍。現在的情況就是這樣。
• 這也是為什麼，我之前會貼出 Monty Python 那段「起司店」的喜劇短片。影片裡有個人走進起司店想買起司，結果店裡根本沒有起司。他就一直問：「那這種起司呢？那一種呢？」但他們真的什麼起司都沒有。
• 所以，我們其實曾經試著把部分推論運算轉移到其他雲端服務商，好騰出更多算力來做訓練。結果遇到的情況，就跟那段「起司店」一模一樣。
• 我們問：「有 GB300 嗎？」
• 「沒有。」
• 「那 GB200 呢？」
• 「也沒有。」
• 「那 TPU 呢？Trainium 呢？好吧，那 H100 總有吧？」
• 對方就說：「嗯，我們海外某個地方可能還有一些。」
• 結果他們查完回來，又說：「沒有，那個也沒有。」
• 實在很荒謬。對，就是這樣。
• 所以，我不認為我們會有需求不足的問題。而且，這並不是不可能——我不是說一定會發生——但明年，我們在算力上的投資，有可能只要六個月就能回本。"

✍️ Abstract

三句話總結

• 算力短約續約租金持續走高：超大規模雲端業者、數十家企業 的強勁需求足以將現有算力出租數倍，帶動按現貨市場價格簽約的每瓦租金不斷攀升，連舊款硬體 H100 租金都已高於剛推出時。
• 算力投資有望明年半年回本：公司目標將 內部自用、對外出租 算力維持 50/50 或 六四比 動態調整，並押注超級智慧算力短缺長期持續，明年算力投資有望僅耗時 6 個月即可回收成本。
• 外部雲端運算硬體供應全面告急：公司嘗試將推論運算轉移至其他雲端服務商以騰出訓練算力，卻發現市場上無論次世代 GB300、GB200、TPU、Trainium 乃至舊款 H100 皆全面缺貨而無現貨可租。

馬斯克 Q3 問答觀點分析

• 算力比例動態調整：內部自用、對外出租 目標大約各占一半 (50/50)，但每個月可能變動為六四比，且任一方占 60% 皆有可能。
• 短約押注算力增值：按現貨市場價格出租而非簽訂長約，押注 AI (人工智慧) 模型強化、軟體改善 帶動每瓦電力產出的有效智慧快速增加，且預期超級智慧算力短缺將長期持續，使 每瓦算力價值、續約租金 持續走高，連舊款硬體 H100 租金都高於剛推出時。
• 雲端算力全面短缺：超大規模雲端業者、數十家小公司 的租用需求足以將現有算力出租數倍，曾嘗試將推論運算轉移至其他雲端服務商以騰出訓練算力，但市場上無論 GB300、GB200、TPU (張量處理單元)、Trainium 乃至 H100 皆全面缺貨。
• 算力投資估半年回本：認為完全不會面臨需求不足問題，雖然不保證必然發生，但明年在算力上的投資有可能僅需 6 個月即可回本。

專有名詞

• AI (Artificial Intelligence)：指由電腦系統模擬人類智慧以執行各類認知任務的技術，在本文中指隨著 軟體改善、模型強化 而帶動每瓦算力價值快速增加的核心軟體驅動力量。
• H100 (NVIDIA H100 Tensor Core GPU)：NVIDIA 推出的 Hopper 架構高效能資料中心繪圖處理器，在本文中被提及為租金反而隨 時間、需求 走高的舊款算力硬體代表。
• GB300 (NVIDIA GB300)：NVIDIA 規劃的次世代 Grace Blackwell 架構高效能運算晶片，在本文中指市場上極度短缺且無法租得的高階算力硬體之一。
• GB200 (NVIDIA GB200 Grace Blackwell Superchip)：NVIDIA 推出的高效能 AI 超級晶片，整合 Grace CPU、Blackwell GPU，在本文中為各雲端服務供應商目前皆無現貨可租的熱門硬體。
• TPU (Tensor Processing Unit)：Google 自主研發專為 機器學習、神經網路 運算設計的專用積體電路，在本文中指雲端服務市場上同樣面臨嚴重缺貨的替代算力硬體。
• Trainium (AWS Trainium)：Amazon Web Services 自主研發專為深度學習模型訓練打造的專用晶片，在本文中指轉向其他雲端服務商尋求時依然無法取得的訓練算力資源。